Địa bàn thị trấn Phú Thứ trước đây là một phần xã Hòa Bình thuộc huyện Tuy Hòa cũ.

Ngày 30 tháng 9 năm 1981, Hội đồng Bộ trưởng ban hành Quyết định 100-HĐBT[3]. Theo đó, chia xã Hòa Bình thành hai xã Hòa Bình 1 và Hòa Bình 2.

Ngày 16 tháng 5 năm 2005, huyện Tuy Hòa chia tách thành hai huyện Đông Hòa và Tây Hòa[4]. Xã Hòa Bình 2 thuộc huyện Tây Hòa và là huyện lỵ huyện này.

Ngày 6 tháng 8 năm 2013, Chính phủ ban hành Nghị quyết 94/NQ-CP[1]. Theo đó, thành lập thị trấn Phú Thứ, thị trấn huyện lỵ huyện Tây Hòa trên cơ sở toàn bộ 1.407,03 ha diện tích tự nhiên và 13.980 người của xã Hòa Bình 2.